「 線形性の普遍性 これは確率論における最も強力な簡略化手法であるかもしれません。変数が独立しているか、相関しているか、互いに排反かどうかに関わらず、和の期待値を個々の期待値の和として計算できるという点で、この性質は非常に強力です。
1. 基礎と命題2.1
期待値がなぜこれほど線形的になるのか理解するために、 無意識統計学者の法則（LOTUS） 多変量系におけるものを見てみます。 命題2.1 は、もし $X$ と $Y$ が同時確率質量関数 $p(x, y)$ を持つならば、任意の関数 $g(X, Y)$ の期待値は次のようになると言います：
$$E[g(X, Y)] = \sum_{y} \sum_{x} g(x, y) p(x, y)$$
連続型変数で同時確率密度関数 $f(x, y)$ が与えられている場合、同様に積分形式で表されます：
$$E[g(X, Y)] = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x, y) f(x, y) dx dy$$
2. 線形性の原理
関数 $g(X, Y) = X + Y$ にLOTUSを適用することで、本講義の中心となる定理が導かれます： $E[X + Y] = E[X] + E[Y]$これは任意の有限集合に自然に拡張されます：
$E\left[\sum_{i=1}^n X_i\right] = \sum_{i=1}^n E[X_i]$
この性質が「普遍的」と呼ばれるのは、同時分布に関する仮定を一切必要としないからです。変数が独立しているか、強く依存しているかに関係なく、和の平均は平均の和になります。
例2a：救急車の問題
長さ $L$ の道路の地点 $X$ に事故が発生し、救急車が地点 $Y$ にいる状況を考えます。ここで $X, Y \sim U(0, L)$ であり、互いに独立しています。$E[|X-Y|]$ を求めるために多変量のLOTUSを使います：
同時確率密度関数は、$0 \le x, y \le L$ の範囲で $f(x, y) = 1/L^2$ です。
$$E[|X-Y|] = \int_0^L \int_0^L |x-y| \frac{1}{L^2} dx dy = \frac{L}{3}$$
3. 単調性と境界
期待値は確率変数の順序を保ちます。もし $X \ge Y$ すべての結果に対して成り立つならば、 $E[X] \ge E[Y]$となります。これは 例2b：もし $X - Y \ge 0$ ならば、$E[X - Y] \ge 0$ となります。さらに、変数が $P\{a \le X \le b\} = 1$ となるように有界であれば、 $P\{a \le X \le b\} = 1$が成り立つならば、 $a \le E[X] \le b$が成り立ちます。
4. 標本平均（例2c）
平均 $\mu$ の分布からの標本 $X_1, \dots, X_n$ を考えます。 標本平均 は次のように定義されます：
$$\bar{X} = \sum_{i=1}^{n} \frac{X_i}{n}$$
線形性より、$E[\bar{X}] = \frac{1}{n} \sum E[X_i] = \frac{n\mu}{n} = \mu$ となります。 標本平均の期待値は $\mu$ ですこれが不偏推定量であることを証明します。
- すべての $X_i$ が非負の確率変数であること。
- 級数が絶対収束していること：$\sum_{i=1}^\infty E[|X_i|] < \infty$。